Ngân hàng trung ương ra đời chính thức đầu tiên ở châu Âu, vào thế kỷ 17. Khi ấy, tiền mặt lưu hành vẫn chủ yếu dưới dạng vàng và bạc, tuy rằng, các tờ cam kết thanh toán (promises to pay) đã được sử dụng rộng rãi như là những biểu hiện của giá trị ở cả Châu Âu và Châu Á. Ngược lại 500 năm trước đây, Tổ chức Hiệp sĩ dòng Đền (Knight Templar) thời Trung Cổ sử dụng một cơ chế có thể nói là hình mẫu đầu tiên của Ngân hàng trung ương. Các giấy tờ cam kết thanh toán của họ được chấp nhận rộng rãi, và nhiều người cho rằng các hoạt động này đặt nền tảng cơ bản cho hệ thống ngân hàng hiện đại. Cùng thời gian đó, Thành Cát Tư Hãn phát hành tiền giấy ở Trung Hoa, và áp đặt sử dụng loại tiền này bằng bạo lực nhằm thu giữ vàng bạc.

Ngân hàng trung ương đầu tiên là Ngân hàng Thụy Điển (Bank of Sweden) ra đời năm 1668 với sự giúp đỡ của các doanh nhân Hà Lan. Ngân hàng Anh (Bank of England) ra đời tiếp sau đó năm 1694 bởi doanh nhân người Scotland là William Paterson tại London theo yêu cầu của chính phủ Anh với mục đích tài trợ cuộc nội chiến lúc đó. Ý tưởng về ngân hàng trung ương cũng được Marx ủng hộ trong Tuyên ngôn của Đảng cộng sản bằng việc đề xuất "tập trung tín dụng vào tay nhà nước thông qua một ngân hàng quốc gia với tư bản của nhà nước"[1]. Trước nhu cầu quản lý nền tài chính quốc gia, các ngân hàng trung ương trên thế giới lần lượt ra đời. Cục Dự trữ Liên bang của Mỹ được thành lập theo yêu cầu của Quốc hội tại đạo luật mang tên hai nghị sĩ đệ trình là Glass và Owen (Glass-Owen Bill). Tổng thống Woodrow Wilson ký đạo luật ngày 23 tháng 12 năm 1913.

Từ đầu thế kỷ XX, các ngân hàng trung ương đã hình thành tuy nhiên các ngân hàng này vẫn thuộc sở hữu tư nhân, sau cuộc khủng hoảng 1929-1933 thì mới trở thành ngân hàng sở hữu của nhà nước.

Ngân hàng Trung ương Trung Quốc (Tiếng Anh là People’s Bank of China – Ngân hàng Nhân dân Trung Hoa) bắt đầu các chức năng ngân hàng trung ương năm 1979 cùng với chính sách cải cách kinh tế. Vai trò ngân hàng trung ương của nó được đẩy mạnh năm 1989 khi đất nước này chuyển đổi sâu sắc hơn sang nền kinh tế hướng xuất khẩu. Tới năm 2000, Ngân hàng Trung ương Trung Quốc đã là một ngân hàng trung ương về mọi mặt, với cơ cấu và hoạt động có tham khảo Ngân hàng Trung ương châu Âu vốn là mô hình ngân hàng trung ương mới nhất, chi phối ngân hàng trung ương của các quốc gia thành viên mà vẫn để quyền quản lý kinh tế quốc gia cho các ngân hàng đó.